Informazione di Fisher

Questa voce o sezione sugli argomenti teorie dell'informatica e matematica non cita le fonti necessarie o quelle presenti sono insufficienti.

---

Puoi migliorare questa voce aggiungendo citazioni da fonti attendibili secondo le linee guida sull'uso delle fonti. Segui i suggerimenti del progetto di riferimento.

In statistica e teoria dell'informazione, l'informazione di Fisher è la varianza dello score (derivata logaritmica) associato a una data funzione di verosimiglianza. L'informazione di Fisher, che prende il nome dal celebre genetista e statistico Ronald Fisher, può essere interpretata come l'ammontare di informazione contenuta da una variabile casuale osservabile ${\displaystyle X}$, concernente un parametro non osservabile ${\displaystyle \vartheta }$, da cui dipende la distribuzione di probabilità di ${\displaystyle \chi }$.

Denotando l'informazione di Fisher con ${\displaystyle {\mathcal {I}}(\vartheta )}$, poiché il valore atteso dello score è nullo, la sua varianza è pari al suo momento del secondo ordine, così che:

${\displaystyle {\mathcal {I}}(\vartheta )={\mbox{E}}\left[\left({\frac {\partial }{\partial \vartheta }}\ln f(X;\vartheta )\right)^{2}\right],}$

dove${\displaystyle f(X;\vartheta )}$ denota la funzione di verosimiglianza. Una scrittura equivalente è:

${\displaystyle {\mathcal {I}}(\vartheta )=-{\mbox{E}}\left[{\frac {\partial ^{2}}{\partial \vartheta ^{2}}}\ln f(X;\vartheta )\right]}$

ossia meno il valore atteso della derivata seconda della funzione di verosimiglianza rispetto a ${\displaystyle \vartheta }$; l'informazione di Fisher può dunque essere letta come una misura della curvatura della verosimiglianza in corrispondenza della stima di massima verosimiglianza per ${\displaystyle \vartheta }$. Una verosimiglianza "piatta", con una derivata seconda modesta, comporterà minore informazione, laddove una maggiore curvatura apporterà una maggiore quantità di informazione.